Warning: mkdir(): No space left on device in /var/www/tg-me/post.php on line 37
Warning: file_put_contents(aCache/aDaily/post/dsproglib/--): Failed to open stream: No such file or directory in /var/www/tg-me/post.php on line 50 Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение | Telegram Webview: dsproglib/6486 -
👍Инструмент недели: `torchao` — лёгкое квантование и оптимизация PyTorch-моделей
`torchao` — это новая экспериментальная библиотека от команды PyTorch, разработанная для простого применения квантования, разреживания и других оптимизаций к нейросетевым моделям.
Основные возможности: 📍`autoquant` — автоматическое квантование модели по слоям, без ручной настройки 📍 поддержка INT8 квантования, совместимого с torch.ao.quantization 📍 интеграция с PyTorch 2.x (использует torch.compile, dynamo, inductor) 📍 поддержка разреживания (sparsity), структурных трансформаций 📍 работа с предварительно обученными моделями — ResNet, MobileNet, Llama и др 📍 возможность применения на CPU/GPU, включая ускорение inference в ONNX и TorchScript
Если вы хотите: 📍 ускорить инференс без потери качества 📍 уменьшить размер модели для edge-устройств или мобильных приложений 📍 минимизировать latency для real-time задач 📍 подготовить модели к выводу на продакшн с минимальным инженерным оверхедом
то torchao может стать отличной альтернативой более сложным инструментам квантования.
Пример использования:
from torchao.quant import autoquant
# Загружаем обученную модель model = torchvision.models.resnet18(pretrained=True).eval()
# Применяем автоматическое квантование model = autoquant(model)
👍Инструмент недели: `torchao` — лёгкое квантование и оптимизация PyTorch-моделей
`torchao` — это новая экспериментальная библиотека от команды PyTorch, разработанная для простого применения квантования, разреживания и других оптимизаций к нейросетевым моделям.
Основные возможности: 📍`autoquant` — автоматическое квантование модели по слоям, без ручной настройки 📍 поддержка INT8 квантования, совместимого с torch.ao.quantization 📍 интеграция с PyTorch 2.x (использует torch.compile, dynamo, inductor) 📍 поддержка разреживания (sparsity), структурных трансформаций 📍 работа с предварительно обученными моделями — ResNet, MobileNet, Llama и др 📍 возможность применения на CPU/GPU, включая ускорение inference в ONNX и TorchScript
Если вы хотите: 📍 ускорить инференс без потери качества 📍 уменьшить размер модели для edge-устройств или мобильных приложений 📍 минимизировать latency для real-time задач 📍 подготовить модели к выводу на продакшн с минимальным инженерным оверхедом
то torchao может стать отличной альтернативой более сложным инструментам квантования.
Пример использования:
from torchao.quant import autoquant
# Загружаем обученную модель model = torchvision.models.resnet18(pretrained=True).eval()
# Применяем автоматическое квантование model = autoquant(model)
In general, many financial experts support their clients’ desire to buy cryptocurrency, but they don’t recommend it unless clients express interest. “The biggest concern for us is if someone wants to invest in crypto and the investment they choose doesn’t do well, and then all of a sudden they can’t send their kids to college,” says Ian Harvey, a certified financial planner (CFP) in New York City. “Then it wasn’t worth the risk.” The speculative nature of cryptocurrency leads some planners to recommend it for clients’ “side” investments. “Some call it a Vegas account,” says Scott Hammel, a CFP in Dallas. “Let’s keep this away from our real long-term perspective, make sure it doesn’t become too large a portion of your portfolio.” In a very real sense, Bitcoin is like a single stock, and advisors wouldn’t recommend putting a sizable part of your portfolio into any one company. At most, planners suggest putting no more than 1% to 10% into Bitcoin if you’re passionate about it. “If it was one stock, you would never allocate any significant portion of your portfolio to it,” Hammel says.
Newly uncovered hack campaign in Telegram
The campaign, which security firm Check Point has named Rampant Kitten, comprises two main components, one for Windows and the other for Android. Rampant Kitten’s objective is to steal Telegram messages, passwords, and two-factor authentication codes sent by SMS and then also take screenshots and record sounds within earshot of an infected phone, the researchers said in a post published on Friday.
Библиотека дата сайентиста | Data Science Machine learning анализ данных машинное обучение from sg
